Тъмните кътчета на мрежата предлагат поглед към нечестното бъдеще на ИИ

Когато комисията за условно освобождаване в Луизиана се събра през октомври, за да обсъди потенциалното освобождаване на осъден убиец, тя призова лекар с дългогодишен опит в областта на психичното здраве, за да говори за затворника.

Комисията за условно освобождаване не беше единствената група, която обърна внимание.

Колекция от онлайн тролове направи екранни снимки на лекарката от онлайн емисия на нейните показания и редактира изображенията с A.I. инструменти, за да я накарат да изглежда гола. След това те споделиха манипулираните файлове на 4chan, анонимно табло за съобщения, известно с насърчаване на тормоз и разпространение на насаждащо омраза съдържание и теории на конспирацията. 4chan са използвали нови инструменти, базирани на AI, като аудио редактори и генератори на изображения, за да разпространяват расистко и обидно съдържание за хора, които са се явили пред комисията за условно освобождаване, според Даниел Сийгъл, студент в Колумбийския университет, който изследва как AI. се използва за злонамерени цели. Г-н Siegel хронифицира дейността на сайта в продължение на няколко месеца.

Манипулираните изображения и аудио не са се разпространили далеч извън границите на 4chan, каза г-н Siegel. Но експертите, които наблюдават страничните табла за съобщения, казаха, че усилията дават поглед върху това как нечестивите интернет потребители могат да използват сложни инструменти за изкуствен интелект, за да засилят онлайн тормоза и кампаниите на омраза през следващите месеци и години.

няма федерален закон, забраняващ създаването на фалшиви изображения на хора, оставяйки групи като съвета за условно освобождаване в Луизиана да се борят да определят какво може да се направи. Бордът започна разследване в отговор на констатациите на г-н Сийгъл за 4chan.

разшири своя закон, уреждащ порнографията за отмъщение, за да позволи мишени на порнография без съгласие, направена от AI. системи за съдене на създатели или разпространители. Калифорния, Вирджиния и Ню Йорк също приеха закони, забраняващи разпространението или създаването на генерирана от AI порнография без съгласие.

Клониране на гласове

В края на миналата година ElevenLabs, A.I. компания, пусна инструмент, който може да създаде убедителна цифрова реплика на нечий глас, казващ нещо, въведено в програмата.

Почти веднага след като инструментът влезе в действие, потребителите на 4chan се разпространиха клипове на фалшива Ема Уотсън, британската актьорка, която чете манифеста на Адолф Хитлер, „Mein Kampf“. фалшиви клипове на съдии, изказващи обидни и расистки коментари за обвиняеми. Много от клиповете са генерирани от инструмента на ElevenLabs, според г-н Siegel, който е използвал A.I. гласов идентификатор, разработен от ElevenLabs за изследване на техния произход.

налагат ограничения, включително изискване потребителите да плащат, преди да могат да получат достъп до инструменти за гласово клониране. Но промените изглежда не забавят разпространението на гласове, създадени от AI, казаха експерти. Десетки видеоклипове, използващи фалшиви гласове на знаменитости, се разпространяват в TikTok и YouTube — много от тях споделят политическа дезинформация.

Някои големи компании за социални медии, включително TikTok и YouTube, оттогава задължителни етикети на някои A.I. съдържание. Президентът Байдън издаде изпълнителна заповед през октомври, изискваща от всички компании да етикетират такова съдържание и нареди на Министерството на търговията да разработи стандарти за воден знак и удостоверяване на AI. съдържание.

Персонализиран AI. инструменти

Когато Meta се премести, за да се закрепи в A.I. надпревара, компанията прегърна стратегия за пускане на своя софтуерен код на изследователите. Подходът, широко наричан „отворен код“, може да ускори разработката, като даде на академиците и технолозите достъп до повече суров материал, за да намерят подобрения и да разработят свои собствени инструменти.

Когато компанията пусна Llama, своя голям езиков модел, за избор на изследователи през февруари, кодът бързо изтече в 4chan. Хората там го използваха за различни цели: те промениха кода, за да намалят или премахнат предпазните огради, създавайки нови чатботове, способни да произвеждат антисемитски идеи. използване и отворен код A.I. инструментите могат да бъдат променяни от технологично опитни потребители.

променени от потребители на 4chan, за да създават голи изображения или да предоставят расистки мемове, заобикаляйки контрола, наложен от по-големите технологични компании.